World-Language-Action Model for Unified World Modeling, Language Reasoning, and Action Synthesis
世界-语言-动作模型:统一世界建模、语言推理与动作合成
🧭 具身AI · 世界-动作模型
SJTU · SII · HUST · SCUT · ECUST
提出WLA模型,基于自回归Transformer联合预测文本子任务、子目标图像和动作,统一世界建模与语言推理
📌 工作参考价值(4 点)
- 世界预测辅助动作生成的分工设计:可借鉴世界专家与动作专家的解耦思路,在推荐/Agent中引入辅助世界建模任务(如用户状态或环境变化预测),为决策提供额外信号,训练时利用世界预测的归纳偏置,推理时可关闭以降低延迟。
- 自回归联合预测语义意图与物理动作:用户行为序列建模可扩展为同时预测下一步的语义意图(如查询词)和具体动作(如点击),提升推荐策略的长程一致性。
- Test-time scaling机制:世界预测在推理时可按需激活,通过多步前瞻提升动作准确性。在推荐场景中,类似地可在关键决策点(如重排序)冗余计算未来用户状态,以计算换性能。
- 从无标注视频学习新任务:论文展示了仅利用无动作标注视频预训练的潜力,对电商中从无强监督行为日志学习策略有启发,但需注意领域差异。